被审稿人说“创新性不够”...深度学习方向怎么找创新点？

在已经看完某一系列论文之后，很多人在写论文时依然苦恼于没有创新点，其实只要抓住以下这五点，就能轻松搞定：

数据集的改动

模型的问题

现有结构替换

特定场景的应用

模块的缝合

从这五点出发，锁定有价值的方向，快速形成一篇论文。

不对模型进行大的调整，而是通过改变输入数据来考虑问题。例如，增加噪声、几何变换、遮挡处理、光照变化以及场景依赖等。

我们可以从数据本身和数据增强两个角度来切入，也就是说当数据发生变化时，限制方法的性能是否会变差？如果模型层面不变动，如何仅通过改变数据集来分析特定领域方法的性能变化或提升方法性能？这种思路相对来讲是比较简单的。

这里为了让大家可以更好的理解并运用，我给大家收集了一份超全数据集仓库，里面有包括目标检测、工业缺陷检测、人脸识别、姿态估计、图像分割、图像识别等12个方向90多个深度学习开源数据集。

需要的同学扫码添加小享

回复【创新点宝藏】无偿获取

首先，我们需要审视特定领域中主流模型的各种特性，比如推理速度、训练时的收敛难度、是否为端到端算法、以及后处理步骤是否存在冗余。

通过识别现有方法的缺点，我们可以选择一个特定的改进方向，比如如果后处理步骤过于繁琐，那么可以专门研究如何简化这一步骤。这种思路需要先分析导致后处理低效的原因，然后有针对性地进行优化。

通过替换或添加新模块来改进现有模型结构。以Transformer为例。

Transformer原本应用于NLP领域，但这几年也被引入到CV领域，用于图像分类、物体检测和分割等任务。Transformer的核心是注意力机制，这种机制可以作为即插即用的模块，在不同的网络层中添加来解决特定问题。比如说我们通过添加注意力机制，解决了什么问题，就这样在这个基础上“讲故事”。

对于非计算机科学背景的人，比如机械、农业或林业等专业，在进行与AI结合的科研项目时，可以考虑通用模型与特定场景应用之间的平衡。

通用模型追求泛化能力，而针对特定场景（如夜间、水下或鱼眼相机检测）的模型更专注于细化的任务。这种特定场景的研究通常竞争较小，更容易产出成果。所以如果是新进入一个领域，我们应该考虑改进特定场景下的算法，而不是直接尝试改进通用算法，除非能够提出非常创新的想法。

利用现有的模型组件或模块，并将它们组合起来构建一个新的模型。

在深度学习领域，缝合模块是一种创新的工程实践，这种方法不需要从零开始设计模型，而且这些模块往往是即插即用的，可以被快速地集成到现有系统中，简化了实验过程，这样我们就可以快速尝试不同的组合，找到最佳的解决方案。另外，缝合模块提供了高度的灵活性，我们可以根据特定的应用场景进行定制。

为了方便大家学习，节省查找资料的时间，我这里也收集了69个即插即用模块，包括：

attention模块：提供计算高效、易于集成且能显著提升模型性能的组件，简化了深度学习模型的开发流程。

快速傅里叶卷积模块：可以加速计算过程，在实际应用中提高模型性能，同时保持较低的计算成本。

Mamba模块：简化模型的构建过程，轻松提高模型的性能，还可以通过降低计算复杂度，提高模型的计算效率。

卷积模块：显著提升模型的性能，保障工作的有效性和先进性，增加论文的创新点。

特征融合模块：在视觉任务中可以无缝集成到现有网络中，以灵活、简单的方式提升神经网络的性能。

多尺度融合模块：有极大的灵活性和易集成性，可以轻松地插入到现有系统或算法中，无需进行大量修改或调整。

下采样模块：通用的创新点，可以通过做消融实验增加我们的工作量，尤其在创新性和工作量不足的时候，是很好的补充。

需要的同学扫码添加小享

回复【创新点宝藏】无偿获取

如果有更好的新方法欢迎大家评论区讨论！